ИИ против людей: нейросеть стала инструментом преследования и унижения

В штате Массачусетс арестован мужчина, который в течение 7 лет преследовал, доксил и угрожал женщине-преподавателю. Одним из наиболее шокирующих аспектов дела стало использование ИИ для создания поддельных обнажённых изображений жертвы, а также создания чат-бота с её данными на сайте, специализирующемся на ИИ для секс-чатов.

Согласно судебным документам, Джеймс Флоренс-младший разместил в интернете 128 изображений, среди которых были поддельные фотографии обнажённой и полуобнажённой женщины. Флоренс-младший публиковал личные данные жертвы, включая её имя, домашний адрес, телефон и информацию о работе, в течение более чем 1 года, всего сделав 687 постов на форумах, где унижают женщин. Преступник также активно преследовал женщину в X* и Reddit

Некоторые публикации сопровождались заголовками, призывающими «сделать эту женщину знаменитой». В результате пользователи сайтов начали напрямую преследовать женщину, отправляя ей угрозы через электронную почту и сообщения.

Кроме того, обвиняемый загрузил личные данные преподавательницы в 2 публичных чат-бота, созданных на разных платформах. Боты могли выдавать информацию о жертве при взаимодействии с пользователями, включая её дату рождения, домашний адрес, место работы, хобби и даже семейные обстоятельства, например, дату смерти матери.

Одна из платформ, на которой были размещены чат-боты, — сайт crushon.ai, который позиционирует себя как платформа для общения с ИИ-персонажами без фильтров, разрешающая пользователям свободно вести беседы сексуального характера. Несмотря на то, что на сайте запрещено использование реальных изображений известных личностей или обычных людей, это не помешало Флоренсу-младшему использовать имя и данные жертвы в своих чат-ботах.

Согласно материалам дела, преследование женщины продолжалось многие годы. Обвиняемый якобы крал её личные вещи, включая нижнее бельё, и публиковал их изображения в интернете. Флоренс-младший также активно преследовал женщину в X, Reddit и на специализированных форумах, где пользователи размещают фотографии женщин с унизительными комментариями.

Дело демонстрирует, как преступники начали использовать искусственный интеллект не только для создания сексуальных изображений без разрешения, но и для воспроизведения своих жертв в виде чат-ботов. Такие боты используются в рамках преследования и запугивания, что представляет новую угрозу в сфере киберпреступности.

* Социальная сеть запрещена на территории Российской Федерации.